Программирование массово параллельных процессоров: Практический подход: Модель выполнения CUDA: Хост против устройства

Модель выполнения CUDA превращает ваш компьютер в высокопроизводительную гетерогенную систему. Представьте себе Великого Директора (хост/ЦПУ) и Армию тысяч (устройство/ГПУ). Директор управляет сложной логикой и принятием решений, в то время как Армия выполняет масштабные, повторяющиеся задачи одновременно.

1. Архитектурное разделение

Хост Хост — это ЦПУ, оптимизированный для низкой задержки, предназначенный для сложных потоков управления и последовательных задач. Напротив, устройство — это ГПУ, оптимизированное для высокой пропускной способности, содержащее тысячи простых ядер, предназначенных для одновременного выполнения одной и той же инструкции на огромных наборах данных.

2. Ритм выполнения

Программа на CUDA работает как серия фаз. Выполнение начинается на хосте для «последовательного кода». Когда программа достигает «параллельного ядра», она запускает сетку потоков на устройстве. Управление возвращается к хосту после завершения работы устройства.

3. Специализация по производительности

Модель использует сильные стороны обоих: ЦПУ управляет системными ресурсами и сложными ветвлениями, а ГПУ выполняет SPMD (одна программа, множество данных) логику для обработки элементов данных параллельно.

TERMINALbash — 80x24

> Ready. Click "Run" to execute.

QUESTION 1

Which architecture is characterized as being 'throughput-optimized'?

The Host (Intel® CPU)

The Device (NVIDIA® GPU)

The System RAM

The PCIe Bus

QUESTION 2

The reader should complete Part 1 of the MatrixMultiplication() example in Figure 3.6 with similar declarations of an Nd and a Pd pointer variable as well as their corresponding cudaMalloc() calls. Furthermore, Part 3 in Figure 3.6 can be completed with mandatory calls.

float *Nd, *Pd; cudaMalloc((void**)&Nd, size); ... cudaFree(Nd);

float Nd, Pd; malloc(&Nd, size); ... free(Nd);

float *Nd, *Pd; cudaMemcpy(Nd, Pd, size); ... delete Nd;

int Nd, Pd; Nd = new float[size]; ... free(Nd);

QUESTION 3

In the CUDA execution model, where does a program always begin its execution?

On the Device (GPU)

Simultaneously on both

On the Host (CPU)

In the Global Memory

QUESTION 4

What happens when the Host encounters a phase with rich data parallelism?

It speeds up its clock frequency.

It launches a Kernel onto the Device.

It stores the data in the Host Cache.

It converts the code to Python.

QUESTION 5

A student attempts to launch a 1024x1024 matrix multiplication on G80 hardware using 1024 blocks, where each thread calculates one element. Why will this fail?

The G80 cannot handle 1024 blocks.

The total number of threads exceeds 1 million.

The configuration results in 1024 threads per block, exceeding the 512 hardware limit.

Matrix multiplication is not data parallel.